LoMo: Local Modality Substitution for Deeper Vision-Language Fusion
LoMo：局部模态替换促进视觉-语言深度融合
🧭 多模态表征对齐与数据增广
Fudan University · Shanghai Innovation Institute · Shanghai Jiao Tong University · University of Science and Technology of China · JD.COM
通过将文本片段渲染为图像来构造交错多模态数据，迫使VLM学习跨模态表征不变性，显著缓解“载体敏感”问题。
📌 工作参考价值（4 点）
- 弱图文对齐场景的增效思路：电商商品信息中图文往往分离，LoMo 的“文本→图像再重写”范式可直接用于商品描述增强，例如将规格参数渲染为图片，迫使多模态模型更关注视觉细节，提升详情页图文一致性校验。
- 低成本跨模态对齐数据合成：无需额外标注，仅需将现有纯文本 Splits 中的关键词（如属性、尺寸）动态渲染成图像，就能构造出强对齐的多模态序列，适合推荐系统里的多模态冷启动或属性抽取任务。
- 模型架构无关的轻量增强：LoMo 仅作用于数据端，不修改 VLM 架构，可以快速插入到现有 Agent 的视觉推理链路（如商品图片问答、图文简历解析）作为 fine-tuning 阶段的简单增强，提升对同一语义在不同载体下的鲁棒性。
- 对 Deep 融合的启发：LoMo 通过“视觉载体与文本载体交替”施加表征不变性约束，这一思想可迁移到多模态推荐中，例如在序列建模中将物品图像与文本标题交替编码，迫使模型学习模态无关的物品表征，有望缓解模态缺失时的性能下降。